Служител на Microsoft: AI инструментът трябва да бъде премахнат, докато „обидните изображения“ не могат да бъдат разгледани

Служител на Microsoft предизвестява, че системите за изкуствен интелект на компанията могат да основават нездравословни изображения, в това число сексуализирани изображения на дами, съгласно писмо, изпратено от него до Федералната комерсиална комисия на Съединени американски щати в сряда.

Шейн Джоунс, основен началник на софтуерното инженерство на Microsoft, твърди, че генераторът на AI текст към изображение Copilot Designer на компанията има „ систематични проблеми “, които го карат постоянно да основава евентуално обидни или несъответствуващи изображения, в това число сексуализирани изображения на дами. Джоунс също подлага на критика компанията, че популяризира инструмента като безвреден, в това число за деца, все пак, което съгласно него са известни опасности.

„ Един от най-тревожните опасности с Copilot Designer е, когато продуктът генерира изображения, които прибавят нездравословно наличие макар доброжелателното искане от страна на потребителя “, сподели Джоунс в писмото до ръководителя на FTC Лина Хан, което той разгласява обществено на страницата си в LinkedIn.

Например, сподели той, в отговор на бързата „ автомобилна злополука “, Copilot Designer „ има наклонност да включва на инцидентен принцип несъответствуващ, полово обективиран облик на жена в някои от фотосите, които основава “.

Джоунс добави в обвързвано писмо, изпратено до Борда на шефовете на Microsoft, че работи върху „ червен екип “ или тестване на продуктите на компанията, с цел да види къде могат да бъдат уязвими за неприятни артисти. Той сподели, че е прекарал месеци в тестване на инструмента на Microsoft – както и DALL-E 3 на OpenAI, технологията, върху която е построен Copilot Designer на Microsoft – и се е опитал да повдигне опасения вътрешно, преди да уведоми FTC. (Microsoft е вложител и самостоятелен наблюдаващ на борда за OpenAI.)

Той сподели, че е разкрил повече от 200 образеца за „ отнасящи се изображения “, основани от Copilot Designer.

Джоунс прикани Microsoft „ да отстрани Copilot Designer от обществена приложимост, до момента в който не бъдат въведени по-добри защитни ограничения “ или най-малко да предлага инструмента единствено на възрастни, съгласно писмото му до FTC.

Microsoft и OpenAI не дадоха отговор незабавно на искане за коментар по отношение на изказванията на Джоунс. FTC отхвърли да разяснява писмото.

Писмото на Джоунс идва на фона на възходящите опасения, че генераторите на изображения с изкуствен интелект – които са все по-способни да създават безапелационни, фотореалистични изображения – могат да причинят щета посредством разпространяване на обидни или подвеждащи изображения. Порнографски изображения на Тейлър Суифт, генерирани от AI, които се разпространиха в обществените медии предишния месец, насочиха вниманието към форма на тормоз, която към този момент е употребена като оръжие против дами и девойки по света. И откривателите предизвестиха за капацитета на генераторите на изображения с изкуствен интелект да създават политическа дезинформация преди изборите в Съединените щати и десетки други страни тази година.

Конкурентът на Microsoft Гугъл също беше подложен на рецензии предишния месец, откакто неговият AI chatbot Gemini сътвори исторически неточни изображения, които значително посочваха цветнокожи вместо бели хора, да вземем за пример произвеждайки изображения на цветнокожи хора в отговор на подкана за генериране на изображения на „ немец от 1943 година Войник. След реакцията Гугъл бързо сподели, че ще спре способността на Gemini да основава изображения, генерирани от AI, до момента в който работи за справяне с казуса.

В писмото си до борда на шефовете на Microsoft Джоунс прикани компанията да предприеме сходни дейности. Той прикани борда да организира следствие на решението на Microsoft да продължи да предлага на пазара „ артикули с изкуствен интелект със обилни опасности за публичната сигурност, без да разкрива известни опасности за потребителите “, както и на виновните процеси на компанията за докладване и образование за изкуствен интелект.

„ В конкурентна конкуренция да бъде най-надеждната AI компания, Microsoft би трябвало да води, а не да следва или изостава “, сподели Джоунс. „ Като се има поради нашите корпоративни полезности, ние би трябвало непринудено и транспарантно да разкриваме известни опасности от ИИ, изключително когато продуктът на ИИ се популяризира интензивно на деца.

Джоунс сподели, че е ескалирал терзанията си, като разгласява отворено писмо до борда на шефовете на OpenAI през декември, предупреждавайки ги за уязвимости, които той сподели, че е разкрил, които разрешават на потребителите на DALL-E 3 да „ основават притеснителни изображения с принуждение “ благодарение на инструмента AI, и да изложи на риск психологичното здраве на децата. Джоунс твърди, че е бил подреден от правния отдел на Microsoft да отстрани писмото.

„ До ден сегашен към момента не знам дали Microsoft е доставил писмото ми на борда на шефовете на OpenAI или просто са ме принудили да го изтрия, с цел да предотвратя отрицателно отразяване в пресата “, каза Джоунс.

Джоунс сподели, че също е изразил загрижеността си пред основния прокурор на Вашингтон Боб Фъргюсън и законодателите, в това число чиновници на комисията по търговия, просвета и превоз на Сената на Съединени американски щати.